Người ta biết khá ít về xuất thân của Trương Tộ, các thông tin có được cho thấy ông là con trai cả của Trương Tuấn, song không được phong làm thế tử. Em trai ông là Trương Trọng Hoa được phong làm thế tử, mặc dù người này không phải do Nghiêm Vương hậu sinh ra. Không rõ về mẹ của Trương Tộ và năm sinh của ông. Ông được ca ngợi là người hiểu biết, Trương Tuấn hoặc Trương Trọng Hoa đã phong cho ông tước hầu.

Trong thời gian Trương Trọng Hoa cai trị, Trương Tộ rất được người em trai này tin tưởng, bất chấp các cảnh báo của Thường Cứ (常據) và Tạ Ngải (謝艾), trong một thời gian dài, Trương Trọng Hóa đã để Trương Tộ làm nhiếp chính cho con trai Trương Diệu Linh. Đến năm 353, Trương Trọng Hoa bị bệnh nặng, ông ra lệnh triệu hồi Tạ Ngải về kinh song Trương Tộ và các thuộc hạ của Trương Trọng Hoa là Triệu Trường (趙長) và Úy Tập (尉緝), những người đã sẵn âm mưu đoạt quyền, đã đoạt lấy chiếu chỉ của Trương Trọng Hoa và giả mạo để Trương Tộ trở thành người nhiếp chính. Trương Trọng Hoa qua đời ngay sau đó, Trương Diệu Linh lên kế vị (khi đó mới chín tuổi), song quyền lực thực tế nằm trong tay Trương Tộ.

Trương Tộ, được cho là có một mối quan hệ với mẹ của Trương Trọng Hoa là Mã Thái hậu, đã có cơ hội đoạt lấy quyền lực. Với sự chấp thuận của Mã Thái hậu, Trương Diệu Linh bị phế vào đầu năm 354 và Trương Tộ lên ngôi, và ông đã sớm bộc lộ sự tàn ác, ông cho giết chết Tạ Ngải và vợ của Trương Trọng Hoa là Bùi Vương hậu.